RVQ

-참고 Vector Quantization

Hidden Singer로부터 설명을 가져왔습니다.

RVQ

Pasted image 20250322222854.png

여기서 잠깐! Codebook이 뭐였는지 짚고 넘어가자. Vector Quantization 참고.

VQ를 하면 어떠한 Cluster로 각 벡터들이 바뀌게 되는데, 각각의 Cluster들을 "Codeword", 해당 codeword들이 모인 집합을 **"Codebook"**이라고 부른다.

먼저, 들어온 latent vector에 대하여 첫 번째 Vector Quantizer가 Vector Quantization을 수행.
그 이후, 두 번째 Vector Quantizer 역시 동일한 latent vector에 대하여 [[Vector Quantization]]을 수행.
이것을 C번 반복하고, 각각에서 나온 quantized vector를 모두 더해주면 최종 vector가 되는 방식!